Vào thời tiền sử, người ta sử dụng số học qua một số đồ vật để chỉ khái niệm cộng và trừ, nổi tiếng nhất là xương Ishango ở Trung Phi, có từ những năm từ 20.000 đến 18.000 năm trước công nguyên.[3]

Những người Babylon rõ ràng đã có những kiến thức khá vững về gần như mọi lĩnh vực của số học sơ cấp từ năm 1800 TCN, dù các sử gia chỉ có thể đoán được điều này qua các phương pháp được dùng để tính ra kết quả số học - ví dụ như những miếng đất sét Plimpton 322, có vẻ là danh sách liệt kê hai trong bộ ba số Pythagoras, nhưng không biết được làm sao người ta nghĩ ra danh sách này. Cũng vậy, cuộn giấy Toán học Rhind của người Ai Cập (có từ khoảng 1650 TCN, nhưng rõ ràng là chép lại từ văn bản khoảng 1850 TCN) cho thấy bằng chứng về các phép tính cộng, trừ, nhân, và chia trong hệ phân số đơn vị.

Các hệ đếm đầu tiên bao gồm ký hiệu vị trí nhưng không phải là hệ thập phân, bao gồm các hệ cơ số 60 của hệ thống chữ số Babylon và hệ cơ số 20 của hệ thống chữ số Maya. Bởi vì các khái niệm sử dụng chữ số này, khả năng sử dụng lại các chữ số tương tự cho các hệ đếm khác nhau đóng góp một phương pháp đơn giản và hiệu quả hơn trong tính toán.

Nicomachus (khoảng năm 60 - 120) đã tóm lược lại các ý niệm triết học của Pytago về các con số, và mối quan hệ giữa chúng với nhau, trong cuốn Giới thiệu về Số học của ông. Vào thời điểm đó, các phép tính số học còn khá rắc rối; khác với phương pháp mà chúng ta dùng hiện nay được gọi là "Phương pháp của người Ấn" (tiếng Latinh Modus Indorum). Số học Ấn Độ đơn giản hơn nhiều so với số học Hy Lạp vì hệ số của Ấn Độ đơn giản hơn, có con số không và giá trị theo vị trí con số. Giám mục Syriac Severus Sebokht đã nhắc đến phương pháp này với một sự ngưỡng mộ, tuy nhiên nói rằng Phương pháp của người Ấn là khó mà miêu tả được. Người Ả Rập học phương pháp mới này và gọi nó là hesab. Fibonacci (hay còn được biết đến với tên Leonardo xứ Pisa) đã giới thiệu "Phương pháp của người Ấn" vào châu Âu năm 1202. Trong quyển Liber Abaci (1200) Fibonacci đã nói rằng, "phương pháp tính toán của người Ấn độ đã vượt qua tất cả các phương pháp khác. Họ dùng chín biểu tượng cho các số, và một biểu tượng số không"[4]

Mặc dù Codex Vigilanus mô tả một hình thức đầu tiên của các chữ số Ả Rập (bỏ qua số 0) vào năm 976, Fibonacci là người chủ yếu truyền bá việc sử dụng chúng khắp châu Âu sau khi xuất bản cuốn sách của ông Liber Abaci trong năm 1202. Ông đánh giá các đại diện "mới" của các con số, làm mới "phương pháp của người Ấn độ" (tiếng Latinh: Modus Indorum), và ông cho rằng chúng là cơ bản đến nỗi tất cả các cơ sở toán học liên quan, bao gồm cả các kết quả của Pythagoras và các môn đại số mô tả các phương pháp để thực hiện các cách tính toán, đều chưa đáng so sánh với cách viết chữ số như vậy.

Vào thời Trung Cổ, số học là một trong bảy môn nghệ thuật tự do được dạy trong các trường đại học.

Các giải thuật hiện đại dành cho số học (để tính tay lẫn tính máy) phải nhờ đến sự ra đời của số Ả Rập và dấu thập phân. Môn số học dựa trên các con số Ả Rập đã được phát triển bởi những nhà toán học Ấn Độ vĩ đại Aryabhatta, Brahmagupta và Bhāskara I. Aryabhatta đã thử đặt vị trí ký hiệu số ở nhiều vị trí khác nhau và Brahmagupta thêm số không vào hệ số Ấn Độ. Brahmagupta đã phát triển các phép nhân, chia, cộng và trừ hiện đại dựa trên những con số Ả Rập. Dù ngày nay nó chỉ được xem là sơ cấp, sự đơn giản của nó là thành quả tích tụ của hàng ngàn năm phát triển của toán học. Nhà toán học cổ đại Archimedes thậm chí đã dành cả một tác phẩm riêng biệt, Người tính trên cát, chỉ để sáng chế ra một cách viết các số nguyên lớn. Sự phát triển của môn đại số ở thế giới Hồi giáo thời Trung cổ và châu Âu thời Phục hưng là một sản phẩm tự nhiên nhờ sự tính toán đơn giản tột cùng bằng các ký hiệu thập phân.